Ngày 6 tháng 6 năm 1931, nhận được tin Nguyễn Ái Quốc bị cảnh sát Anh bắt tại Hương Cảng, ông cùng Trương Vân Lĩnh liên hệ với Hội Quốc tế Cứu tế Đỏ nhờ can thiệp và vận động luật sư Francis Henry Loseby[5] bào chữa buộc chính quyền thực dân Anh phải trả lại tự do cho Nguyễn Ái Quốc. Ông cũng nhanh chóng liên lạc và báo cáo cho cơ quan Đông Phương bộ của Quốc tế Cộng sản và tổ chức Đảng Cộng sản Trung Quốc, nhờ giúp đỡ giải thoát cho lãnh tụ Nguyễn Ái Quốc.

Nhờ sự tích cực của ông, Vụ án Tống Văn Sơ diễn ra theo chiều hướng có lợi. Tuy nhiên, đến ngày 30 tháng 6 năm 1931, Hồ Tùng Mậu bị chính quyền thực dân Anh bắt giam với lý do hoạt động chống nhà cầm quyền Hồng Kông, nhưng vì không đủ chứng cứ buộc tội nên họ trục xuất ông khỏi Hương Cảng, đồng thời thông tin cho mật thám Pháp đón lõng bắt ông tại Thượng Hải.

Ngày 26 tháng 6 năm 1931, ông bị mật thám Pháp bắt giữ ngay khi vừa đặt chân đến Thượng Hải. Ông bị giải về tô giới Pháp rồi bị đưa về Việt Nam xét xử. Ông bị chính quyền thực dân Pháp tuyên án tử hình tại phiên tòa ngày 6 tháng 12 năm 1931 tại Nghệ An, nhưng sau đó giảm xuống thành án chung thân khổ sai.

Ông trải qua các nhà lao Vinh, Lao Bảo, sau đó mới đến nhà đày Kontum. Tại ngục Kontum, ông tham gia sáng lập "Hội tao đàn ngục thất", lấy thơ văn để nuôi dưỡng chí khí chiến đấu[3].

Trong những năm sau đó, ông bị đày qua nhà đày Buôn Ma Thuột, rồi ngục Trà Khê. Mãi đến ngày 9 tháng 3 năm 1945, Nhật đảo chính Pháp, ông cùng các đồng chí của mình vượt ngục Trà Khê, trở về quê nhà tại làng Quỳnh Đôi, Nghệ An. Bấy giờ, Chính phủ Trần Trọng Kim có mời ông ra làm cố vấn, nhưng ông dứt khoát từ chối.[3]